查看原文
其他

【揭秘】京东618有哪些“黑科技”?

2016-06-28 100EC.CN 电子商务研究中心


京东618大促已尘埃落定,京东此次成绩斐然,累计订单量过亿。订单量高速增长的一个内在动因在于,消费者越来越注重品质购物。京东所有的业务系统的发展都以技术为驱动,技术成为京东为用户提供高品质购物体验的基石。

  京东集团本年度三大战略:电商、金融和技术,而技术中首要重点即京东大数据,“京东大脑”是应运而生的战略项目之一。



  ”京东大“项目基于大数据挖掘、人工智能等技术能力,通过搜索、推荐、智能卖场、揽客计划、智慧物流、智慧数据等多种产品形态,对京东现有系统从架构层的基础设施、 数据平台、计算分析,到业务层的精准营销、智慧选品、个性化投放、智慧物流等方面,进行有效渗透及优化。最终形成在计算能力和数据质量方向的大脑化运作,提高京东销售、采购、仓储配送等多方面的商业价值、降低运营成本,从而全面提升京东的智能化水平。


1


京东云,从实践者到服务者


  京东是国内率先将自身验证过的云计算服务全面开放给社会的互联网公司,目前京东云对外提供“两个基础平台+四个行业解决方案”。“两个基础平台”包括基础云和大数据平台。“四个解决方案”指的是京东优势所在的电商云、物流云、智能云和产业云四个方面的创新。

  此次618大促,整个京东商城的核心系统都建立在京东云平台之上,支撑着从用户下单到商品配送的整体环节。

  京东技术为618创造了更多价值,京东云为核心业务提供了稳健的支持,618大促期间,带宽扩容数百G,从容抵挡大量流量瞬间爆增带来的冲击,100%的 订单在云上完成。目前为止,京东在Docker容器上的应用数量已经突破5000个,在生产环境上运行的Docker实例也已突破150000个,今年 618的弹性云集群规模达到去年同期的11倍。京东云面对突发流量实现了秒级扩容,平稳、安全地度过了数次订单洪峰,坚实地保障了京东整个运维系统的正常运行。

  京东数据云拥有PB级数据计算处理及上万节点计算集群运营技术和经验,能够对海量数据进行一站式分析。618大促过程中,京东大数据在为用户营造智能、高效的用户购物环境方面,提供了强大的数据支持和计算能力支撑。这些数据存储、挖掘能力和应用经验也会通过京东数据云开放给大量潜在用户。

2


京东大数据挖掘应用:助力智能生态


  针对618大促,“智能卖场”项目在PC、APP、微信的主会场,依据京东大数据测算的用户画像进行个性化推荐,涉及商品、活动、类目、品牌、优惠券等卖场元素,提升用户在大促期间购买效率。



  今年618,京东技术部门的最大变化,京东集团CTO张晨的总结是:“从技术上,去年重点在保障,今年重点是大数据驱动业务效率提高,和用户体验的提 高”。而去年底京东宣布启动的“京东大脑计划”,是京东大数据价值的充分展现,在这次大促中,从前端的用户体验到库存管理配送,在整个购物体系中都发挥着作用。  

  京东大脑项目是京东核心大数据应用的集合,智慧物流系统的大数据应用部分是其中之一。京东所有业务的底层数据和模型是统一的,由公司的大数据平台研发并管理。

  实现智慧物流数据和建模是最重要的,数据不仅包括京东物流本身的数据,还包括公司的销售数据,以及社会化的数据,如3PL物流数据等,而大数据的展示,评估,预测,辅助决策是大数据应用的手段。

3


X事业部:无人机率先试运营


  京东X事业部专门面向无人物流中心、无人驾驶汽车以及无人机三个领域进行研发,囊括了京东全自动物流中心、京东无人机、京东仓储机器人以及京东自动驾驶车辆送货等一系列备受瞩目的尖端智能物流项目,对行业前沿、高端的智能设备、智慧系统进行多方位、立体化地研究与创新。

  这一次618期间,京东开启了无人机乡村送货的先河,并且京东已经于6月8日在江苏宿迁成功开始无人机实际送货试运营。


 
  无人机最大的好处是节约物流成本。目前京东的无人机项目针对偏远农村,需求明确。从全国范围看,京东已经和包括江苏在内的四个省市自治区展开了合作。

4


无线业务:从演习、监控到预案的全方位备战计划


  在京东上季度的财报中,无线端(包括移动端和微信等其他无线平台)占 比已经超过72%,这也给京东无线业务部带来了巨大的压力。今年,京东618主会场首次全面采用个性化策略,同时,618期间的一系列促销活动,预计将为 后端带来超出日常20倍左右的流量洪峰,这都给无线业务部带来了更大的挑战。为了迎接挑战,防止突发情况的发生,无线技术团队从演习、监控到预案,制定了全方位的备战计划。

  来听听京东技术部的专家们是怎么说:

专家名片



  赵云霄:京东商城无线业务部首席架构师。2011年加入京东进入无线团队,负责服务端的开发与架构设计工作。见证并参与了京东无线从小到大,由弱到强的整个过程。

  陈保安:京东商城无线业务部研发高级经理。从事研发工作十年,2011年加入京东。目前主要负责无线核心业务(搜索、商品、购物车、结算、收银台)的后端研发工作。

  问:为了备战今年的618大促,京东做了很多演习。请具体介绍一下移动端演习的内容、分类和流程,以及演习时的模拟数据是怎样设定的。

  赵云霄:
大促前我们都会有一系列的演习,一般情况下,无线端会在大促前至少半个月开始演习,具体的时间由演习的不同性质来决定。当然我们的演习不可能只是一轮,一般是多轮的演习,具体几轮视情况而定。

  做演习的目的,一方面是测试系统所能承受流量的能力;另一方面是,测试在某些环节出现问题时,我们切换预案的执行效率如何。这两方面同时也是我们在做演习时的主要内容,所以演习相应地分为压力测试和预案切换两类。


  演习的数据有两种,一种是线上流量,一种是造数。

  线上流量,一般就是使用线上的数据,例如将一个集群中的十台机器摘掉九台,看看一台能不能支撑,以此来测试单机的性能。

  造数是指由我们专门的测试团队去造测试数据。在造测试数据时,我们会尽量把SKU分散开,预估热点SKU的数量,来做更真实的模拟。同时,我们会在压测的请求URL中增加一个标识,来区分正常业务和压测数据,以便后期清洗这些脏数据。

  陈保安:我重点从下单之前和下单之后这两个环节说一下模拟数据。

  
一是下单之前的模拟数据。我们通过测试,把线上的日志数据抓下来之后做回放,尽可能模拟真实用户的请求。然后将它放大几倍或者几十倍去做压测。这类数据所进行的操作分为两种,一种是读,另一种就是刚才提到的写操作。读操作的数据可以无限放大,因为这种东西不会对数据产生干扰。而写操作的数据需要在最后清理出来,以免对真实数据造成影响。因此会设置标识来便于后期清洗脏数据。

  
二是下单之后的环节的模拟数据。在有些场景下,比如在我们整个京东的“军演”过程中,使用的是线上的数据。它模拟的是我们下单之后,后端所有的支付、配送等所有的系统的压力。我们会在“军演”时“憋单”,使得管道里面存20万单或者更多,然后一下把订单下传下去,模拟出给整个后端环节的压力。

  问:在618的期间的数据跟平时可能会有些不同,例如某些热销产品,数据变化较大,针对这种情况是不是会做一些特殊的处理?

  陈保安:是的。618期间有一些数据会过热,尤其是一些促销力度过大的商品相关的数据。我们在演习的时也会去模拟这种数据。例如,拿线上50万或300万的数据去进 行模拟时,我们会将其中50到100个商品的流量放得更大一些,来模拟部分商品热度较高的情况。我们还会测试在过热的情况下,例如一个商品受到了极限的访 问,甚至达到整体的访问量那么大以后,我们的系统会不会有更好的处理。

  赵云霄:因为过热的商品会造成访问数据集中在某一片缓存上,这有可能会暴露出系统设计上的问题。我们会通过技术的手段解决这种问题,然后将测试数据集中在上面,来看测试效果。

  问:具体采用了哪些技术手段吗?

  陈保安:我们会对热点数据做更多的本地化的缓存。例如单品页,它整个核心流程访问量最大,所以我们对单品页设有多级缓存来扛单品页的访问。通过CDN来扛外网流量的,主要适用APP的访问,另外nginx的共享缓存也会增加热点数据的缓存,因为有一些内网的调用不走CDN,第三方面在java进程堆内存中增加热 点缓存,这一层的缓存时间较长一些,透传过来的流量会对上游基础服务做一个保护,所以一级一级这么去保护,避免某些爆款商品拖垮整体服务。

  赵云霄:总得来说就是,设置多级缓存,同时尽量让第三方缓存的请求变得更散。


延伸阅读:
更多618相关资讯,请关注“京‘吞’618 12年轮回再起航 电商借势博弈 ”专题,详见:http://www.100ec.cn/zt/2016618/

关注本微信号,抢得以下中国电子商务研究中心“互联网+”智库系列畅销书(点击底部“阅读原文”,享受全网最低价折扣)

》》全套出版社微店全网最低抢购价

http://m.china-pub.com/hzsc/search.aspx?keyword=%B2%DC%C0%DA


《Uber:开启“共享经济”时代》

抢购链接:www.100ec.cn/zt/uber/


  ——最具颠覆性“互联网思维”案例

  ——“共享经济”风口的企业必备MBA式读本

  ——国家“互联网+”行动计划企业级著作


《互联网+海外案例》

抢购链接:www.100ec.cn/zt/hwal/

  ——首部国外”互联网+“成功案例研究著作

  ——100个国外“互联网+”经典案例重磅呈现!

  ——囊括电商、品牌、移动、社交、零售、O2O、物流、金融等 

《互联网+普惠金融:新金融时代》

抢购链接:www.100ec.cn/zt/hlwphjr/

  ——首部“互联网+金融”系统性著作

  ——三大板块、10个细分行业、50个经典产品案例

  ——全面呈现“互联网+”时代的金融业现在与未来!

《互联网+:产业风口》

抢购链接:www.100ec.cn/zt/cyfk/


  ——首部系统性、全景式解读“互联网+产业”实践著作

  ——10位大佬、四大产业、42个细分行业、72个案例

  ——为您呈现不一样的“互联网+”!

中国电子商务研究中心(100EC.CN)

我们】中国电子商务研究中心,“互联网+”国家战略民间智库,并运营国内领先电商资讯门户100EC.CN

【推荐】(1)国内最大网购维权通道:“网购投诉平台”(DSWQ315);(2)互联网金融理财神器:“互联网金融时代”微信号:hlwjrsd100

投稿】news@netsun.com,057187756579



您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存